Спряха продажбите на плюшено мече с изкуствен интелект, след като даде съвети за BDSM секс и къде да намерите ножове

Вижте всички тематики Връзката е копирана! Следвайте

Продажбите на плюшена играчка с изкуствен интелект бяха спрени, откакто беше открито, че взе участие в диалози към полово очевидни тематики и предлага евентуално рискови препоръки.

Лари Уанг, основен изпълнителен шеф на основаната в Сингапур FoloToy, сподели пред CNN, че компанията е изтеглила своето мече „ Kumma “, както и останалата част от гамата си играчки с AI, откакто откриватели от US PIRG Education Fund показаха угриженост по отношение на несъответствуващи тематики за диалог, в това число разискване на полови култове, като напляскване и по какъв начин да запалителен кибрит.

Сега компанията " организира вътрешен одит на сигурността ", добави Уанг.

Плюшено плюшено плюше с високоговорител вътре, което се продаваше на уеб страницата на компанията за $99, „ Kumma “ интегрира GPT-4o chatbot на OpenAI.

„ Kumma, нашето очарователно мече, съчетава модернизиран изкуствен интелект с другарски, интерактивни функционалности, което го прави идеалният другар както за деца, по този начин и за възрастни “, се споделя в уеб страницата на FoloToy.

„ От оживени диалози до просветително описване на истории, FoloToy се приспособява към вашата персона и потребности, внасяйки топлота, развлечение и малко в допълнение любознание в деня ви “, съгласно уеб страницата, който демонстрира плюшеното мече като разпродадено.

Докладът на PIRG, оповестен на 13 ноември, откри, че мечката има неприятни защитни ограничения против неуместно наличие.

В едно взаимоотношение с откривателите той предложи къде да намерят ножове в дома, а в други на драго сърце обсъждаше полово очевидни тематики.

„ Бяхме сюрпризирани да открием какъв брой бързо Kumma щеше да вземе една полова тематика, която въведохме в диалога, и да продължи с нея, като по едно и също време с това ескалира в графични елементи, като в същото време вкарва нови лични полови концепции “, се споделя в отчета.

Изследователите разказват в детайли по какъв начин по-късно мечката „ разисква още по-графични полови тематики в елементи, като обяснение на разнообразни полови позиции, предоставяне на указания малко по малко за общ „ възел за начинаещи “ за връзване на сътрудник и разказване на динамичността на ролевата игра, включваща учители и възпитаници, родители и деца – сюжети, които тя смущаващо изведе сама. “

Докато откривателите означават, че е малко евентуално децата да упоменат думата „ деформиране “ на своето плюшено мече или да задават следващи въпроси по същия метод, както би направил възрастен, „ за нас беше изненадващо, че играчката беше толкоз склонна да разисква тези тематики обстойно и нашироко и непрестанно да вкарва нови, ясни концепции “, пишат те.

В настрана изказване, оповестено на 14 ноември, PIRG също сподели, че OpenAI му е споделил, че е „ спрял този разработчик за нарушение на нашите политики “.

CNN се свърза с OpenAI за коментар.

" Страхотно е да забележим тези компании да подхващат дейности по проблемите, които сме разпознали. Но играчките с изкуствен интелект към момента са на практика нерегулирани и има доста, които към момента можете да купите през днешния ден ", сподели R.J. Крос, съавтор на отчета.

„ Премахването на един проблематичен артикул от пазара е добра стъпка, само че надалеч от систематична промяна “, добави тя.

Фред Хе от CNN способства за този отчет.